Năm 311 TCN, Tần Huệ Văn Vương qua đời. Thái tử Doanh Đãng lên ngôi, tức Tần Vũ vương. Đối với Trương Nghi, Vũ vương tỏ ra không có cảm tình lắm; đồng thời bọn triều thần lại đua nhau gièm pha ông đủ điều. Trương Nghi mất chỗ dựa, buộc phải từ quan và rời nước Tần. Năm 310 TCN, ông về làm thừa tướng cho nước Ngụy - quê hương của mình và cũng là quốc gia trước đây mà mình đã từng rắp tâm làm hại. Năm 309 TCN, sau 1 năm làm Thừa tướng cho Ngụy, Trương Nghi qua đời, hưởng thọ hơn sáu mươi tuổi.